目录

• 说明（readme）
• 经典监督学习方法（Supervised learning）
• 贝叶斯决策理论（BAYES DECISION THEORY）
• 支持向量机稳健数值逼近
• LDA学习算法
• QDA学习算法
• 修正KNN方法
• 朴素贝叶斯方法
• 算例分析（case study）
• 女性乳腺癌诊断（breast cancer）
• iris分类（Iris Data）
• 葡萄酒品种推断（Using chemical analysis determine the origin of wines）
• 附录（部分源代码）
• QDA方法
• KNN方法
• 朴素贝叶斯方法

QDA监督学习方法

LDA方法假设每一类观测服从多元高斯分布，其中协方差对所有的K类都相同的 。而QDA则认为每一类都服从 各自的多元高斯分布。

注意在计算QDA时， \[\log \left| {{{\mathbf{\Sigma }}_k}} \right| = {\Sigma _l}\log {d_{kl}}\] \[{{\mathbf{\Sigma }}_k} = {L_k}{D_k}{L_k}'\] 因此这里要对对称正定矩阵进行LDL分解。该分解由于Cholesky分解，因为分解过程不需要开平方运算。

对于类别变量，可以参考LDA中同样的方法。